Hijo único de Henry Eccles (1640/50-1711), miembro de la Banda Real, y nieto del compositor Solomon Eccles. Recibió sus primeras lecciones musicales de su padre. Alrededor de 1690 John trabajó como compositor de canciones y música de fondo para los principales teatros londinenses. Al mismo tiempo se ganó el reconocimiento de la corte, siendo contratado para la Música Privada del Rey en 1694, y en 1700 llegó a ser Maestro de la Música del Rey, sucediendo a Nicholas Staggins. Uno de los compositores más distinguidos que ocupó este puesto, compuso una gran cantidad de odas y cantatas, algunas de ellas a gran escala, la mayoría de las cuales, lamentablemente, no han sobrevivido.

También en 1700 terminó segundo en una competencia para  escribir música para la mascarada de William Congreve "El Juicio de Paris" (ganó John Weldon).

Edición discográfica con dos piezas de John Eccles

Eccles fue muy activo como compositor para el teatro, y desde los años 1690 escribió una gran  cantidad de música incidental, incluyendo música para "Love for Love", de William Congreve, "The Spanish Friar" de John Dryden y "Macbeth" de William Shakespeare. Juntamente con Henry Purcell escribió música incidental para "Don Quixote" de Thomas d'Urfey. Se convirtió en compositor del teatro Drury Lane en 1693 y cuando en 1695 algunos de los actores se retiraron para formar su propia compañía en Lincoln's Inn Fields, compuso música también para ellos.

Eccles también escribió música para la coronación de la Reina Ana y numerosas canciones. Muchas de sus canciones más famosas, como "I burn, I burn" fueron compuestas para ser interpretadas por la actriz-cantante Anne Bracegirdle.

Su obra teatral culminó con dos óperas inglesas, “Los Hechiceros Británicos” (producida en 1706) y “Semele” (1707, basada en un libreto de Congreve), que se vieron ahogadas por la ascensión de la ópera italiana. Si hubieran llegado a estrenarse, realmente hubieran marcado el inicio de una nueva era para la música escénica en Inglaterra, ya que en ambas obras los elementos ingleses e italianos se entremezclaban maravillosamente. El libreto de Congreve serviría después como base para el "Semele" de George Frederic Haendel.

Después de 1706 abandonó el teatro, continuando únicamente con sus obligaciones en la corte. Durante mucho tiempo en la última parte de su vida, Eccles vivió en Kingston-on-Thames y escribió música incidental adicional (aunque no tan frecuentemente como lo hacía para Lincoln's Inn Fields) así como ocasionales odas para la corte. Se sabe que pasaba gran parte de su tiempo pescando.

Fue el único Maestro de Música del Rey en la historia del cargo que sirvió a cuatro monarcas (el rey Guillermo III, la reina Ana, el rey Jorge I y el rey Jorge II). En sus obras más ambiciosas ha revelado un gran instinto dramático y una gran capacidad para la creación de obras a gran escala, mientras que como escritor de canciones fue un magnifico creador de melodías de exquisita sensibilidad.